這 線性關係的普遍性 這可能是機率理論中最強大的捷徑。它讓我們能透過簡單地將各個隨機變數的期望值相加，來計算它們總和的期望值——無論這些變數是否獨立、相關或互斥。
1. 基礎與定理 2.1
為了理解期望值為何具有如此明顯的線性特質，我們需檢視 無意識統計學家法則（LOTUS） 多變量系統中的應用。 定理 2.1 指出：若 $X$ 與 $Y$ 具有聯合機率質量函數 $p(x, y)$，則任意函數 $g(X, Y)$ 的期望值為：
$$E[g(X, Y)] = \sum_{y} \sum_{x} g(x, y) p(x, y)$$
對於具有聯合機率密度函數 $f(x, y)$ 的連續變數，其對應的積分形式為：
$$E[g(X, Y)] = \int_{- ty}^{ ty} \int_{- ty}^{ ty} g(x, y) f(x, y) dx dy$$
2. 線性原理
透過將 LOTUS 應用於函數 $g(X, Y) = X + Y$，我們推導出本課的核心定理： $E[X + Y] = E[X] + E[Y]$。此性質可自然延伸至任一有限集合：
$E\left[\sum_{i=1}^n X_i\right] = \sum_{i=1}^n E[X_i]$
這項性質之所以稱為「普遍」，是因為它不需對聯合分布做任何假設。無論變數是否獨立或高度相關，總和的平均值始終等於各個平均值之和。
範例 2a：救護車問題
考慮在長度為 $L$ 的道路上，事故發生於位置 $X$，救護車位於 $Y$，其中 $X, Y \sim U(0, L)$ 且相互獨立。利用多變量的 LOTUS 求 $E[|X-Y|]$：
聯合機率密度函數為 $f(x, y) = 1/L^2$，適用於 $0 \le x, y \le L$。
$$E[|X-Y|] = \int_0^L \int_0^L |x-y| \frac{1}{L^2} dx dy = \frac{L}{3}$$
3. 單調性與界限
期望值會保持隨機變數之間的大小順序。若 $X \ge Y$ 對所有結果皆成立，則 $E[X] \ge E[Y]$。這源自於 範例 2b：若 $X - Y \ge 0$，則 $E[X - Y] \ge 0$。此外，若某變數滿足 $P\{a \le X \le b\} = 1$，則可推得 $a \le E[X] \le b$。
4. 樣本均值（範例 2c）
設 $X_1, \dots, X_n$ 為來自均值為 $\mu$ 的母體的樣本。其 樣本均值 定義如下：
$$\bar{X} = \sum_{i=1}^{n} \frac{X_i}{n}$$
由於線性性質，$E[\bar{X}] = \frac{1}{n} \sum E[X_i] = \frac{n\mu}{n} = \mu$。 樣本均值的期望值為 $\mu$，證明其為無偏估計量。
- 所有 $X_i$ 均為非負隨機變數。
- 該級數絕對收斂：$\sum_{i=1}^\infty E[|X_i|] < \infty$。